Supuestamente nacido en Verden, su padre, Joachim Friedrich Haltmeier, era primo de la madre de Georg Philipp Telemann. Nada sabemos de sus estudios musicales, que podría haberlos realizado con su primo en segundo grado, 17 años mayor que él.

Entre 1720 y 1725 trabajó como organista en la Marktkirche de Hannover. 

El 8 de diciembre de 1725 o 1726 fue nombrado burgués del casco antiguo de Hannover, ocupó desde entonces, hasta 1735, el puesto de organista de la corte real de Gran Bretaña y del príncipe elector de Brunswick-Lüneburg en la capilla del castillo de Leines

En 1728, Telemann imprimió en la revista Der getreue Music-Meister, que él mismo publicó, una toccata de Haltmeier. Murió a los 36 años de edad.